Koscielny được triệu tập vào đội tuyển quốc gia Pháp vào ngày 3 tháng 2 năm 2011. Trước khi được gọi để chơi cho tuyển Pháp, Koscielny cũng đủ điều kiện để chơi cho Ba Lan và ban đầu anh đã xem xét đến việc nộp đơn để xin quốc tịch Ba Lan.[5] Tháng 8 năm 2010, có một báo cáo cho rằng anh đã không nộp đơn và đã hủy bỏ cuộc gặp mặt với huấn luyện viên đội tuyển quốc gia Ba Lan, Franciszek Smuda, ở Warsaw vào ngày 7 tháng 8. Koscielny sau đó đã tuyên bố rằng ưu tiên hàng đầu của anh là chơi cho đội tuyển Pháp.[24]

Koscielny được gọi vào đội tuyển Pháp lần đầu tiên vào ngày 3 tháng 2 năm 2011 để chuẩn bị cho trận giao hữu với Brazil vào ngày 9 tháng 2.[25][26] Anh được triệu tập một lần nữa vào ngày 25 tháng 8. Koscielny có trận ra mắt cho đội tuyển ở trận giao hữu đối đầu với tuyển Mỹ vào ngày 11 tháng 11. Anh đã chơi trọn vẹn trận đấu với chiến thắng 1-0. Anh có lần xuất hiện đầu tiên ở một giải đấu lớn, Euro 2012, khi đã chơi trọn vẹn 90 phút trong thất bại 2–0 trước đội tuyển Tây Ban Nha ở vòng tứ kết và được bình chọn là Cầu thủ xuất nhất trận đấu bởi giới truyền thông nước Pháp.

Năm 2016, anh được huấn luyện viên Didier Deschamps triệu tập tham dự Euro 2016 diễn ra tại quê nhà Pháp, giải đấu mà anh và các đồng đội đã lọt vào đến trận chung kết và chịu thất thủ trước Bồ Đào Nha, giành vị trí á quân.

Trước khi World Cup 2018 diễn ra, Koscielny tuyên bố sẽ chia tay đội tuyển quốc gia sau giải đấu này. Tuy nhiên, chấn thương gót chân đã khiến anh không thể góp mặt vào đội hình tham gia World Cup 2018. Tổng cộng anh đã thi đấu 51 trận và ghi được 1 bàn thắng.